Umelá inteligencia zásadne mení aj svet kybernetických podvodov. Podľa najnovších zistení bezpečnostných expertov sú podvody využívajúce AI výrazne efektívnejšie než tradičné scam kampane.

V niektorých prípadoch sú až 4,5-krát ziskovejšie. Klasické remeslo so scam kampaňami tak už pomaly aj zaniká.

Rýchly rozvoj generatívnej umelej inteligencie priniesol množstvo užitočných nástrojov pre firmy aj bežných používateľov. Rovnaké technológie však začínajú vo veľkom využívať aj kyberzločinci. A tí túto technológiu ďalej rozvíjajú. Bezpečnostné organizácie upozorňujú, že AI umožňuje podvodníkom vytvárať oveľa presvedčivejšie útoky a zároveň automatizovať ich vo veľkom rozsahu.

AI dokáže automatizovať celý podvod

V minulosti boli mnohé online podvody relatívne jednoduché. Hlavne sa používali phishingové e-maily s pomerne zlou slovenskou gramatikou alebo generické správy, ktoré sa posielali tisícom ľudí naraz. Tomu je dnes koniec.

Generatívna AI dokáže tento proces výrazne zefektívniť. Moderné nástroje umožňujú útočníkom:

• analyzovať verejne dostupné informácie o potenciálnych obetiach
• vytvárať presne personalizované phishingové správy
• generovať realistické texty úplne bez gramatických chýb aj v našom jazyku
• automaticky komunikovať s obeťou v reálnom čase.

Výsledkom sú podvody, ktoré pôsobia výrazne dôveryhodnejšie než tie z minulosti.

Deepfake hlas aj video

Jedným z najnebezpečnejších trendov sú deepfake technológie, ktoré dokážu napodobniť hlas alebo vzhľad konkrétnej osoby. V praxi sa už objavili prípady, keď útočníci pomocou AI simulovali hlas politika, manažéra firmy a presvedčili ľudí, aby previedli peniaze na podvodný účet. Na Slovensku patrí medzi najviac používané osoby prezident Peter Pellegrini alebo bývalý šéf Slovenskej sporiteľne.

Útoky vedené v duchu manažéra firmy smerom na zamestnancov sú známe ako CEO fraud alebo business email compromise. S využitím AI sú ešte presvedčivejšie než v minulosti.

Technológia umožňuje vytvoriť realistický hlas z krátkej zvukovej nahrávky alebo dokonca generovať video, v ktorom vystupuje osoba, ktorá v skutočnosti nič z toho, čo počujete z jej úst nepovedala.

Podvody vo veľkom rozsahu

AI zároveň umožňuje podvodníkom pracovať vo väčšom rozsahu než kedykoľvek predtým. Automatizované systémy dokážu generovať tisíce správ denne a zároveň živo reagovať na odpovede potenciálnych obetí.

Útočníci tak môžu spustiť celé scam kampane s minimálnym ľudským zásahom. Podľa bezpečnostných expertov práve táto automatizácia výrazne zvyšuje ich ziskovosť.

Prečo sú AI podvody úspešnejšie

Existuje niekoľko dôvodov, prečo sú nové podvody efektívnejšie:

• komunikácia pôsobí prirodzene
• správy sú personalizované pre konkrétnu obeť
• útoky môžu prebiehať vo veľkom rozsahu
• AI dokáže reagovať na otázky obete v reálnom čase.

Kým staršie phishingové správy bolo často možné odhaliť podľa jazykových chýb alebo generického obsahu, nové kampane vyzerajú ako úplne legitímna komunikácia.

Bezpečnostné firmy varujú

Bezpečnostní experti preto upozorňujú, že AI môže výrazne zmeniť charakter kybernetickej kriminality. Nástroje, ktoré boli pôvodne vytvorené na zlepšenie produktivity, sa totiž dajú relatívne ľahko zneužiť aj na nelegálne aktivity.

Pre používateľov to znamená, že bude čoraz dôležitejšie overovať si zdroj správ, telefonátov alebo videí. Neverte informáciám len z jedného zdroja. Aj obsah, ktorý pôsobí veľmi presvedčivo, totiž môže byť vytvorený pomocou umelej inteligencie.

Umelá inteligencia ako dvojsečná zbraň

AI tak prináša technologický pokrok, ale zároveň aj nové bezpečnostné riziká. Zatiaľ čo firmy investujú do nástrojov na ochranu pred podvodmi, kyberzločinci využívajú rovnaké technológie na zdokonaľovanie svojich útokov.

Výsledkom je nový typ technologických pretekov medzi bezpečnostnými firmami a útočníkmi, ktorý bude v najbližších rokoch pravdepodobne ešte intenzívnejší.

Je veľkou výhodou, že výrobcovia smartfónov prichádzajú s technológiou, ktorá preverí či sledovaný obraz či zvuk je deepfake alebo nie. Príkladom takejto technológie je HONOR ale už aj Samsung.

Zdroje: vlastné, Interpol, Proofpoint